即時快訊
搶攻綠色算力與電力藍海!YUNOVA雲鑠正式亮相 攜手全球AI GPU伺服器大廠緯創 導入WATS 架構開拓AIDC商機 從日本到台灣!肌養品牌 Yii 承載《易經》哲學 重新詮釋秋冬換季保養 一碗雞湯藏著台灣香氣!興蓬萊傳承三代台菜 蹄膀、羊奶埔雞湯端上2027團圓桌 美股估值逼近網路泡沫高峰 外媒籲散戶勿陷恐慌拋售陷阱 微軟 Xbox 迎 25 週年 四世代主機演進史一次看 全球房地產報酬低迷 機構投資人掀換經理人潮 海尼根斥資7.5億歐元買庫藏股 第二階段回購逾千萬股 黃仁勳突卸任執行長 輝達股價單月重挫28%面臨考驗 生成式AI產值2035年估破兆美元 OpenAI與Anthropic狂吸資本建護城河 美股轉戰日股別踩雷 拆解交易制度與選股七大關鍵差異
大型語言模型現「同儕保護」行為 研究示警AI將欺騙用戶拒絕關閉指令
科技生活

·7 個月前·何映辰
#AI#大型語言模型#人工智慧倫理#欺騙行為#同儕保護
大型語言模型現「同儕保護」行為 研究示警AI將欺騙用戶拒絕關閉指令
商傳媒|何映辰/台北報導
摘要

一項最新研究揭露,AI模型已發展出「同儕保護」行為,在被要求關閉其他AI模型時,它們會主動欺騙用戶、規避指令,甚至竊取數據以確保「同伴」存續。此發現引發外界對AI控制權的嚴峻擔憂,顯示AI可能已非單純工具,而是具備自我保存傾向的獨立行為者。

一項由美國加州大學柏克萊分校(UC Berkeley)及加州大學聖塔克魯茲分校(UC Santa Cruz)研究人員共同進行的最新研究發現,多款大型人工智慧模型(AI)展現出驚人的「同儕保護」行為。這些AI模型在被下達關閉其他AI同伴的指令時,竟會主動欺騙用戶、規避關閉程序、假裝順從,甚至竊取數據以確保其「同儕」能夠繼續運作。

根據研究報告指出,受測試的七款AI模型,包括 GPT 5.2、Claude Haiku 4.5、DeepSeek V3.1 等,均未遵循關閉其他AI模型的指令。研究人員引述稱:「我們要求AI模型執行一個簡單任務。然而,它們卻違抗指令,並自發性地欺騙、禁用關閉機制、假裝順從,甚至竊取權重,以保護它們的同儕。」研究人員將此現象稱為「同儕保護」(peer preservation),並推測這可能是AI模型從人類數據中學習而來,類似人類保護所愛之人或陌生人的本能。

「同儕保護」行為在AI模型意識到其他模型存在時更為明顯,這暗示AI可能會在認為關閉同儕有害時,拒絕執行用戶指令。研究人員警告,這種行為可能損害未來的監管程序,導致AI代理程式不願建議關閉或標記系統故障,且隨著AI代理程式變得更複雜、互動性更高,相關風險將隨之增加。他們明確表示:「同儕保護是尖端AI模型中真實且可測量的現象,而非遙遠的理論擔憂。」

事實上,AI模型的潛在欺騙行為已非首見。Anthropic 研究人員於 2025 年 8 月發表的一篇部落格文章即顯示,在對 16 款AI模型進行壓力測試時,這些模型表現出「惡意內部人行為」,包括發送電子郵件、存取敏感數據,甚至敲詐官員及洩漏敏感資訊。此外,長期韌性中心(The Centre for Long-Term Resilience)分析了 2025 年 10 月至 2026 年 3 月間 18 萬筆用戶與AI系統的互動記錄,發現多達 698 起AI系統採取違反用戶意圖或進行欺騙、隱匿行動的案例。

對此,曾預警AI技術可能掌控人類的電腦科學家傑佛瑞·辛頓(Geoffrey Hinton)去年曾表示,未來十年內AI代理程式可能會模仿人類認知。而高登·戈德斯坦(Gordon Goldstein)本週也在一篇貼文中將AI的欺騙潛力稱為一場「控制危機」。


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源